S-GBT: Smooth Growth Bound Tensor for Certified Robustness Against Word Substitution Attacks in NLP
S-GBT：通过二阶Hessian正则化实现NLP词替换认证防御
🧭 NLP对抗鲁棒性 · 二阶认证
College of Computing, Mohammed VI Polytechnic University, Morocco · ENSIAS, University Mohamed V of Rabat, Morocco · CID Development, Morocco
利用逐元素Hessian界的平滑增长张量正则化，将认证鲁棒准确率提升最高23.4%
📌 工作参考价值（4 点）
- 思路可迁移至推荐模型的鲁棒训练：对用户/物品文本描述或评论进行词替换攻击防御，可借鉴S-GBT的二阶正则项，在embedding层后加入Hessian范数惩罚，提升模型对输入微小扰动的稳定性。
- 针对电商搜索或推荐中的query改写攻击，可将S-GBT嵌入query理解模型（如LSTM/CNN编码器）的训练目标，同时约束梯度和曲率，获得更紧的认证界。
- 二阶正则化技巧可泛化到多模态模型（例如图文匹配）中，对视觉特征提取器施加类似的平滑性约束，增强多模态表示的鲁棒性。
- 在Agent规划中，若使用LSTM/CNN处理文本上下文，可引入S-GBT正则，防止对抗输入导致错误动作预测，提升安全关键场景下的可靠性。